Predictive Policing: Utah füttert KI-Firma mit Überwachungsdaten in Echtzeit
Der US-Bundesstaat gibt dem Unternehmen Zugriff auf Videofeeds aus Überwachungskameras, Notrufe und Bewegungsdaten, um "Anomalitäten" zu entdecken.
(Bild: pixinoo / Shutterstock.com)
Die auf "Echtzeitlösungen" mit Künstlicher Intelligenz (KI) spezialisierte US-Firma Banjo hat einen weitgehenden Vertrag mit dem US-Bundesstaat Utah abgeschlossen, wonach sie in dortigen Städten und Gemeinden die "vorausschauende Polizeiarbeit" (Predictive Policing) vorantreiben soll. Dazu erhält sie direkten Zugang zu Videoaufnahmen aus staatlichen Überwachungskameras etwa an Straßen oder öffentlichen Plätzen, Notrufsystemen, Bewegungsdaten von Fahrzeugen der öffentlichen Hand sowie andere sensible Informationen.
Banjo soll die Daten laut dem im Juli 2019 unterzeichneten Vertrag mit weiteren Inhalten aus sozialen Netzwerken, Medien, Blogs oder Messwerten von Sensoren etwa an Straßen oder Satelliten zusammenführen und "in Echtzeit" auf gefährliche Situationen für die öffentliche Sicherheit oder andere Notfälle hinweisen. Einschlägige Informationen oder Warnungen werde das Unternehmen "effektiv" an die Polizei "und andere Endnutzer" weiterleiten, heißt es in der rechtlichen Übereinkunft. Das System könne so verschiedenen Behörden helfen, rascher auf laufende Ereignisse zu reagieren.
KI-Aufklärung in Echtzeit
Hierzulande wird das umstrittene Predictive Policing vor allem eingesetzt, um Serieneinbrechern zuvorzukommen. Ein offizieller Test zum Auswerten von Bildern aus Überwachungskameras am Berliner Bahnhof Südkreuz mit dem Ziel, "untypische" Situationen zu erkennen, hat bislang keine vorzeigbaren Ergebnisse produziert. Banjo wirbt aber mit einem hier ansetzenden System namens "Live Time Intelligence", das mithilfe von KI Aufklärungsinformationen in Echtzeit produzieren soll. Als Beispiele für einschlägige Szenarien nennt die Firma etwa Kindesentführungen, Terrorismus, Schießereien oder organisierte Verbrechen rund um Drogenhandel. Sie will sogar Optionen im Angebot haben, um Autos aufzuspüren, die eine Einbahnstraße in falscher Richtung befahren, oder um Obdachlose zu versorgen.
Der über fünf Jahre laufende Vertrag hat ein Volumen von insgesamt 20,7 Millionen US-Dollar. Ausdrücklich ist darin festgehalten, dass Banjo die Anonymität der Nutzer der einbezogenen Daten gewährleistet und "alle auf Personen beziehbare Informationen" entfernt. Das Unternehmen verweist selbst darauf, dass es dafür eine "patentgeschützte Technologie" in Betrieb habe. Möglicherweise dafür in Frage kommende gewerbliche Schutzansprüche des Firmengründers und Ex-Navys Damien Patton offenbaren aber keine technischen Details, wie ein derart komplexes Datenschutzverfahren funktionieren könnte.
Zugriff auf Kameras
Laut einem Bericht des US-Magazins Motherboard hat Banjo mittlerweile eigene Server im Hauptquartier der Verkehrsaufsichtsbehörde Utahs installiert und Zugriff auf Tausende Kameras, die diese im gesamten Bundesstaat installiert hat. Auf Basis des US-Informationsfreiheitsgesetzes erhaltene Behördendokumente zeigten zudem, dass sich die Firma in Betriebszentren für den 911-Notruf eingeklinkt habe. Insgesamt hätten weit über hundert Städte und Gemeinden sowie die Universität von Utah und die Highway Patrol inzwischen eingewilligt, Banjo mit Daten zu versorgen.
Systemlösungen für Polizeibehörden, um Big-Data-Analysen durchzuführen, bieten auch andere Hersteller wie das vom Facebook-Investor Peter Thiel unterstützte Palantir an, das seine Technik schon an Abnehmer in Deutschland verkaufen konnte. Prinzipiell arbeite die Software von Banjo ganz ähnlich wie die des bekannteren Wettbewerbers, zitieren die Autoren den Cheflobbyisten der Firma, Bryan Smith. Sie habe aber den Vorteil, dass "wir es live machen". Kunden erhielten quasi auf Google Maps in Sekunden Hinweise auf ein Ereignis mit zugehörigen Informationen.
Algorithmen nicht offengelegt
Mit einem Beispiel für ein laufendes Einsatzszenario für Banjos System kann das Büro des Generalstaatsanwalts Utahs derzeit aber nicht aufwarten. Der Vertrag sieht auch nicht vor, dass das Unternehmen seine Algorithmen offenlegen muss. Der Staat sei aber bestrebt, "Unwägbarkeiten" zu reduzieren, die mit der Integration von proprietären Lösungen aus dritter Hand einhergehen.
Experten befürchten, dass die Firma die ihr überlassenen umfangreichen Datenmengen nicht nur fürs Maschinenlernen nutzt und ein andauerndes Überwachungsnetz in Form eines Panoptikums über alle Bürger des Staates spannen könnte. "Mir fehlen die Worte um zu beschreiben, wie empörend und dystopisch solche Sachen sind", erklärte der Rechtswissenschaftler Chris Gilliard gegenüber Motherboard. Andrew Ferguson, Autor des Buchs "The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement", bezeichnete KI-getriebene Überwachung als "Supermacht", die streng reguliert werden müsse. (olb)
